Năm 2009, trong tour diễn quảng bá album trùng tên nhóm, Avenged Sevenfold bắt đầu tiến hành làm album thứ năm. Bắt đầu từ album gần nhất lúc ấy, tay trống của ban nhạc là The Rev đóng góp vào khâu sáng tác nhiều hơn so với chính anh ở ba album đầu tiên, kể cả album gây đột phá của ban là City of Evil (2005). Ban nhạc cho biết album sẽ "hoành tráng và giàu tính cá nhân nhất, nhất định sẽ đưa bạn vào một chuyến đi cực kỳ u tối."[1] Tính đến tháng 12 năm 2009, ban nhạc đã hoàn thành các đĩa demo cho sản phẩm và sẵn sàng bước chân vào phòng thu.[2] Tuy nhiên, trước khi họ làm vậy thì thảm kịch đã ập đến.

Ngày 28 tháng 12 năm 2009, Jimmy "The Rev" Sullivan tử vong trong khi đang ngủ. Sau đó, ban nhạc ngừng sản xuất album, thậm chí tính đến chuyện tan rã.[3][4] Tuy nhiên, cuối cùng ban nhạc quyết định tiếp tực thực hiện dự án sau khi được lời khích lệ từ cha mẹ Sullivan, cũng như biết nếu còn sống anh sẽ muốn họ hoàn thành nhạc phẩm.[2] Vì không muốn thuê một tay trống dài hạn thế chỗ The Rev, ban nhạc đã lựa chọn Mike Portnoy của nhóm Dream Theater (nguồn ảnh hưởng lớn đến The Rev và các đồng đội trong ban nhạc) để thu nốt các bản ghi trống trong album:

Sau vài tháng, những thông báo về album xuất hiện nhiều hơn; một thông điệp ngắn của Zacky Vengeance được đăng trên Twitter chính thức của Avenged Sevenfold vào ngày 17 tháng 4 năm 2010 viết: "Đĩa nhạc đã hoàn thành. Chẳng có từ nào diễn tả được cảm giác nghe album này trong lúc lái xe về nhà một mình lúc bốn giờ sáng."[7]

Johnny Christ chia sẻ trong một buổi phỏng vấn với Ultimate Guitar về quá trình sáng và chất liệu chủ đề của Nightmare: "Chúng tôi nhất trí quyết định đây sẽ là một đĩa nhạc chủ đề. Chúng tôi muốn làm một đĩa nhạc chủ đề u tối, kiểu như The Wall hay Operation: Mindcrime. Cùng lúc ấy, chúng tôi muốn kết hợp một vài thứ từng làm trong quá khứ với phần soạn guitar. Chúng tôi muốn làm nhạc phẩm nghe nặng hơn. Qua tất cả những điều ấy, các bài hát ra đời có phần nhạc u tối đúng như ý đồ của chúng tôi. Rồi phần ca từ chuyển sang hướng khác khi Jimmy mất. Phần lời sau đó gần như trở thành – không phải 100% – nói về cái chết và cuộc đời của cậu ấy."[8]

M. Shadows và Synyster Gates xác nhận sự xuất hiện đặc biệt của The Rev ở đĩa nhạc trong một lần phỏng vấn với The Pulse of Radio. Theo các thành viên, anh để lại một số bản thu giọng hát trước khi anh mất, và họ sử dụng chúng trong đĩa nhạc này. Với những câu fill trống và giọng anh còn nguyên, đĩa nhạc đã trở thành nhạc phẩm cuối của ban với The Rev thời điểm ấy.[9] Hai thành viên tiết lộ vài chi tiết về đĩa nhạc mới trong một lần phỏng vấn với Hard Drive Radio: "[...] Album mới Nightmare được dành tặng để tưởng nhớ The Rev và tuy nó không hẳn là một album chủ đề, nhạc phẩm lại xoay quanh The Rev. Điều đáng sợ nhất là có một bài trong album có nhan đề 'Fiction' [biệt hiệu mà chính Rev đặt cho mình] vốn có tên gốc là 'Death.' Và đấy là bài hát cuối mà The Rev sáng tác cho album, và khi cậu ấy gửi bài, cậu ấy nói: 'Chính nó, đấy là bài hát cuối cho đĩa nhạc này.' Và rồi ba hôm sau thì cậu ấy chết".[10]

Mọi bài hát trong album đều có sự góp bút sáng tác của The Rev, và ban nhạc cho biết hơn 60% album là do anh sáng tác.[2][11]